Những cuộc di trú của người German cho thấy diễn tiến của quá trình Teuton hóa châu Âu cổ.[33] Khi ấy, tù trưởng của gia tộc Merowinger (Frank) là Chlodwig đã chinh phạt các thị tộc Frank khác. Vào năm 486, ông lên làm vua Chlodwig I của người Frank. Quân ông tiếp tục đánh thắng các bộ tộc khác, chiếm lĩnh thêm nhiều lãnh thổ. Vốn từ thế kỷ thứ tư trước Công Nguyên, La Mã đã từ bỏ Đa Thần giáo và chuyển theo Ki-tô giáo. Các binh đoàn Lê dương La Mã đã truyền bá Ki-tô giáo khắp Âu châu. Bấy giờ, vợ Chlodwig I cải theo Ki-tô giáo nhưng ông thì chưa. Tương truyền, nhà vua lúc thất trận, liền cầu nguyện vị Chúa của vợ ông, hứa rằng nếu thắng sẽ theo về Ki-tô. Ông chiến thắng, và quả nhiên ông cùng với 3 nghìn chiến binh của mình đều trở thành những Ki-tô hữu. Ông bắt buộc mọi dân tộc dưới quyền phải theo Ki-tô giáo, và thiết lập liên minh giữa Vương quốc Frank với Giáo triều La Mã: và trong hàng nghìn năm tới lịch sử nước Đức vẫn cứ theo quá trình này.[47]

Gần như không thể khẳng định một cách khách quan là người ta bắt đầu nói đến "nước Đức" (Deutschland) từ lúc nào. Không có thời điểm rõ ràng cho việc hình thành một quốc gia Đức độc lập, cả về chủng tộc, về ngôn ngữ lẫn về lãnh thổ. Nhiều nhóm dân và bộ tộc được gộp chung dưới khái niệm người German (người Giecman), những người đã định cư từ trước thời Thượng cổ trong vùng đất của nước Đức ngày nay.

Các bộ tộc người Indogerman hay con cháu của họ đã di dân đến đấy trong thời kỳ Đồ Đồng và Đồ Sắt và đã tự pha trộn với những người dân tại chỗ đã định cư ở đấy từ cuối thời kỳ Băng hà và sau đó là với những dân tộc hay người dân "đi ngang qua", thí dụ như:

• Người Celt gốc Indogerman trong miền Nam nước Đức, những người đã có ảnh hưởng lớn đến văn hóa châu Âu trong nhiều vùng đất rộng lớn cho đến cuối thời Thượng Cổ.
• Người La Mã trong vùng miền Nam và miền Tây nước Đức ngày nay, quân đội của họ đã chiếm đóng miền Nam và miền Tây của Germanien dọc theo sông Donau và Rhein cho đến khoảng thế kỷ thứ 5.
• Người Slavơ phía đông sông Elbe trong lúc di dân về phía Đông từ thế kỷ 11 đến thế kỷ 14.
• Những dân tộc khác trong thời di dân, thí dụ như người Sarmante (tiếng Anh: Sarmatian).

Vùng đất Trung Âu lục địa giữa Đại Tây Dương, biển Baltic và phía Nam dãy núi Alpen chỉ được thống nhất vào thời kỳ của Vương quốc Frank (hay vương quốc Karoling) của vua Charlemagne, còn được gọi là Karl I Đại đế. Sau cái chết của Charlemagne, vương quốc này được chia làm ba trong Hiệp ước Verdun vào năm 843 cho 3 người cháu của ông. Nước Pháp hình thành sau này từ Vương quốc Frank Tây, hình thành từ Vương quốc Frank Đông là nước Đức ngày nay, trong khi "Vương quốc giữa", sau này là Bourgogne và Lorraine, bị chia sẻ giữa Pháp và Vương quốc Frank Đông trong thời Trung Cổ.

Vương quốc Frank Đông chưa phải là "Đức" nhưng ít nhất đã tạo thành một khuôn khổ về địa lý cho nước Đức sau này. Mãi đến giữa thời kỳ của dòng họ Otto, tên regnum teutonicum (tiếng La tinh cho "Vương quốc Đức") mới bắt đầu xuất hiện thường xuyên hơn. Người ta có thể xem thời gian từ khi Vương quốc Karoling tan rã cho đến giữa thời Trung cổ là giai đoạn tiếp chuyển của sự hình thành khái niệm "nước Đức". Việc xưng vua và đăng quang của Otto I Đại đế đánh dấu sự kết thúc đầu tiên cho gian đoạn này.

Từ thế kỷ 11, một cấu trúc quốc gia đã hình thành mà về mặt chính trị có thể xem là độc lập và từ đó đã hình thành cái mà ngày nay gọi là "nước Đức" (xem Đế quốc La Mã Thần thánh).